Meta reicht Klage gegen Hersteller der App-Technologie „nudify“ ein

Meta gab am Donnerstag bekannt, dass es einen App-Hersteller verklagt, der künstliche Intelligenz nutzt, um Nacktbilder von echten Menschen zu simulieren, die auf den Bildern bekleidet erscheinen.

Meta gab an, in Hongkong Klage gegen Joy Timeline HK Limited, das Unternehmen hinter der App CrushAI, eingereicht zu haben, um zu verhindern, dass es auf Meta-Plattformen Werbung für CrushAI-Apps macht.

„Diese rechtlichen Schritte unterstreichen sowohl die Ernsthaftigkeit, mit der wir diesen Missbrauch nehmen, als auch unser Engagement, alles zu tun, um unsere Community davor zu schützen“, sagte Meta in einer Erklärung. „Wir werden weiterhin die notwendigen Schritte – darunter auch rechtliche Schritte – gegen diejenigen unternehmen, die unsere Plattformen auf diese Weise missbrauchen.“

Die Klage wurde eingereicht, nachdem Joy Timeline „mehrere Versuche“ unternommen hatte, Metas Anzeigenprüfungsprozess zu umgehen, behauptet Meta.

Trotz Verstoßes gegen die Werberichtlinien der Social-Media-Plattformen sind auf Metas Facebook- und Instagram-Plattformen Anzeigen für sogenannte Nackt-Apps aufgetaucht. CrushAI, der Entwickler der Apps, bewarb KI-Tools, mit denen Nutzer angeblich Fotos hochladen und „jemanden nackt sehen“ können, wie eine Untersuchung von CBS News ergab .

Meta erklärte, das Unternehmen verbiete „nicht einvernehmliche intime Bilder“ auf seinen Plattformen. Das Unternehmen teilte CBS News zuvor mit, es habe Anzeigen für die Nudify-Technologie entfernt, Seiten auf seinen Plattformen gelöscht, auf denen die Spots laufen, und mit den Apps verbundene Websites dauerhaft gesperrt.

Meta gab am Donnerstag bekannt, dass es Informationen, einschließlich Werbe-URLs, über Unternehmen, die gegen seine Richtlinien verstoßen, über das Lantern-Programm der Tech Coalition mit anderen Technologieunternehmen teilen wird. Das Programm verfolgt Verhaltensweisen, die gegen die Kinderschutzvorschriften verstoßen. Seit März hat Meta dem Programm Informationen zu mehr als 3.800 Websites zur Verfügung gestellt, die mit anderen Technologieunternehmen geteilt werden, so das Unternehmen.

Meta erklärte, dass Werbetreibende von Nudify-Apps verschiedene Mittel einsetzen, um auf ihren Plattformen nicht entdeckt zu werden. Unter anderem verwenden sie harmlose Bilder, um die Technologie zur Erkennung solcher Anzeigen auf ihren Websites zu umgehen. Infolgedessen habe das Unternehmen eine bessere Technologie entwickelt, um als harmlos dargestellte Anzeigen von Nudify-Apps zu erkennen, erklärte Meta am Donnerstag.

„Wir haben mit externen Experten und unseren eigenen Spezialistenteams zusammengearbeitet, um die Liste der sicherheitsrelevanten Begriffe, Ausdrücke und Emojis zu erweitern, die unsere Systeme in diesen Anzeigen erkennen sollen“, sagte Meta.

Emmet Lyons hat zu diesem Bericht beigetragen.